张吉豫 | 数字法理的基础概念与命题
数字法理的基础概念与命题
全文转载自微信公众号“法制与社会发展”,张吉豫|数字法理的基础概念与命题,原文载于《法制与社会发展》2022年第5期。
作者:张吉豫 ,中国人民大学法学院副教授、中国人民大学未来法治研究院研究员。
张吉豫
(图片来源于百度)
摘要:数字法理是数字法学的基本范畴,是数字法治的理论基石。从对数字法理的这一科学认知出发,立足数字科技发展和数字法治建设的历史、现实和未来,参考国内外文献,提炼出数字本原、数字正义、数字人权、数字主权、数字平台、数字向善、数字安全、数字治理、数字文明、数字中国等数字法理的基础概念及围绕其展开的理论命题,诸如:代码即法律,算法即规则;数字正义是社会正义原则和正义实现机制在数字领域的体现;数字人权引领第四代人权;数字主权是“数字国家”新主权,是国家主权新形态;平台权力是把双刃剑;数字科技是第一创造力,数字向善是第一价值观;数字安全和发展是一体之两翼、驱动之双轮;数字治理的目标是构建包容性数字社会秩序;迈向数字文明新时代;数字中国和法治中国相辅相成、相得益彰;等等。尝试以这些概念和命题来展示现阶段数字法理研究的成果。
关键词:数字法理;数字本原;数字正义;数字人权;数字主权;数字治理
引言
数字法理是数字法学的基本范畴,是数字法治的理论基石。“理者,物之固然,事之所以然也。”“数字法理”承载着数字科技之“固然”,又蕴含数字治理之“所以然”,具有认识论、价值论、方法论等多重意义。因此,深入开展对数字法理的研究,对于构建数字法学知识体系、支撑数字中国和数字法治体系建设具有重大意义。本文在对数字法理作出科学定位的基础上,立足数字科技发展和数字法治建设的历史、现实和未来,梳理和参考国内外相关研究文献尤其是我国学者近年来的研究成果,提炼出数字法理的十个基础概念,并以命题(判断和叙事)模式分别对这些基础概念的科学内涵和重大意义进行学理阐释,以展示数字法理蕴含的科学真理、社会价值和时代精神。
一、数字本原
代码即法律,算法即规则。算法既是生产生活的重要组织者,又是社会秩序的重要建构者。数字治理中应探索可计算的法律发展道路。
把握数字技术的内在规律和外溢效应是数字法治的基本前提,也是数字法理的重点研究对象之一。在数字法理的研究中,“代码即法律”“算法即规则”是重要的本原性命题。
“代码即法律”(Code is law)是美国学者劳伦斯·莱斯格(Lawrence Lessig)在其著作《代码》中写下的经典命题,揭示了网络空间法治的一般性原理,被网络法学领域诸多论著引用。在“代码即法律”这一命题中,不应狭义理解“代码”的含义,而应将其理解为那些塑造了数字空间的具体样态、对社会主体产生影响的信息技术及其组合。数字科技发展到今天,尽管更加复杂、高级的算法被不断开发和应用,但实质上算法仍然是通过“代码”实现和发挥作用的。“代码即法律”仍然是公认的科学论断,对当前的法学研究和法治实践仍具有积极意义。
首先,“代码即法律”反映了对社会主体行为的多维规制的基本理论。Lessig教授指出,无论是在物理空间还是在网络空间,法律、市场、社会规范和架构(architecture)等因素都共同影响着社会主体的行为,在网络空间中影响社会主体行为的“架构”,就是“代码”。要理解一项法律规范是不是科学可行的,其效果如何,必须审视这些多维影响因素,理解它们如何相互作用,考虑各种因素对社会主体行为的影响或激励效应,并考虑更改各种影响因素的可能性及其成本、效果。怎样的规制组合是最佳的组合方式是因不同场景而异的。我们必须具体观察,在特定场景中,法律、代码、社会规范、市场等种种规制框架所实际蕴含的价值和秩序是不是可欲的。在确定了社会所希望寻求的价值和秩序后,我们应当分析论证,通过何种组合来对社会主体的行为进行规制是最佳的。
其次,“代码即法律”强调了在数字空间中,代码对社会主体行为具有重要的影响。“代码即法律”并非指代码和法律在规范意义上是完全等价的,而是重点揭示出,代码作为数字空间的技术架构,在实质上设定了规则,对社会主体在数字空间中的行为具有非常强大的影响乃至决定作用。可以说,较之其它技术架构对传统物理空间中社会主体行为的影响能力,代码对数字空间中社会主体行为的影响能力更为突出。在网络法治发展的早期,代码的这种影响能力没有得到足够的理解和重视。在上世纪末,Lessig教授认为,代码是最常被忽视的规制手段;而当前的数字法治建设已经越来越重视代码对人们的行为、权益的影响。特别是在“算法泛在”的今天,算法在实际上可能构成信息推送、商品定价、信用评价、用人招聘、绩效计算乃至社会危害性评价、警力调配、城市规划等方方面面的具体规则。算法对人类整体(共同生活)产生普遍且广泛的影响已是不争的事实。
研究者们进一步提出“算法即规则”。这一命题并不是要说明算法是一种抽象的数学规则,而是强调算法是数字世界的普遍规则,为人类的线上和线下生活提供了数据化框架,对人和世界产生着决定性的影响,从而更为明确、聚焦地揭示出算法的影响。由此,算法透明、算法公平、算法解释等问题被日益关注,“技术性正当程序”(Technological Due Process)这一概念重新得到重视。我国学者胡凌指出,早期互联网研究者从追问赛博空间的本性出发,看到造成互联网繁荣和个人自由的架构设计及其演变;而在当前万物互联的发展之中,赛博空间和物理空间日益紧密关联,“账户—数据—评分”三要素框架解释了赛博空间中来自政治和商业逻辑的控制/生产机制,并提出了复杂算法的使用规范和限制问题。因此,正如我们对市场经济中的法律问题进行分析和制定法律时要尊重和理解市场规律、考虑“看不见的手”对市场主体的影响一样,数字法治研究和建设要尊重和理解数字科技的发展规律,分析数字科技运用对社会主体的影响和对社会结构的塑造,理解不断发展的数字空间的结构和本质。“算法不仅成为生产生活的重要组织者,还是社会秩序的重要建构者。”算法的影响具有客观规律性,但算法及其影响也是可以经由主观能动性而被改造的。
[美]劳伦斯·莱斯格:《代码2.0:网络空间中的法律(修订版)》
李旭、沈伟伟译,清华大学出版社,2018年版
(图片来源于豆瓣)
最后,基于前述两方面,“代码即法律”更进一步启示人们在数字法治建设中要特别注重技术与法律的有机协同。Lessig教授指出了法律和代码的三种互动方式:第一,法律驯服代码,增加网络空间的可规制性。第二,代码替代法律。代码可以改变法律的约束,进而影响法律的效果。第三,法律规制代码。齐延平教授则提出需要确立“法律先于技术”“法律融入技术”“法律归化技术”的原则。在针对数字空间的法律制定和法治建设中,需要考虑包括代码在内的最佳规制组合。如果仅仅被动地、滞后性地、单纯地从狭义的法律的维度来分析和应对数字空间中的各种问题,相应的法治将是缺乏科学性基础的,至少很可能是缺乏效率的。因此,在数字法治建设中,应密切关注和了解合规科技、监管科技、智慧司法科技,探索可计算的法律发展道路,进行将法律与科技相融通的思考论证。
鉴于代码和算法对人们影响深刻,在立法和法律解释中要充分考虑数字科技的应用和发展情况。这应构成数字法治领域自觉使用的一种范式。由此,“代码即法律”“算法即规则”这两个命题启示我们,在数字法治中,既要对科技发展运用的客观规律保持尊重,厘清代码、算法的规制机理,又要理解代码、算法的工具性及可规制性,科学、创新地处理好代码与法律的关系,通盘考虑法律规范、社会规范、市场规则、技术架构等规制手段,在必要、可行、正当的情况下,将法律规则融入算法规则、代码架构中,实现科学有效的数字法治。
二、数字正义
数字的价值根基在正义。“数字正义”是社会正义原则和正义实现机制在数字领域的体现。数字正义是21世纪全球正义体系的中枢。为数字正义而斗争,就是要破解数字鸿沟、消除数字歧视。
“数字正义”是数字法理的核心价值概念。“数字正义”作为一个新词语,其首创者一般被认为是美国学者伊森·凯什(Ethan Katsh)与以色列学者奥娜·拉比诺维奇·艾尼(Orna Rabinovich-Einy)。2016年,他们发表了题为“数字正义:导言”的文章,作为其于2017年出版的《数字正义——当纠纷解决遇见互联网科技》一书的导言,提出了互联网世界里的“数字正义”这个词语。不过,他们所提出的“数字正义”局限于将数字技术引入纠纷解决流程,建立多元在线纠纷解决平台,化解和预防纠纷。进一步讲,他们所提出的“数字正义”是指,以数字化方式提升纠纷解决以及司法的效率和公平,探讨数字如何为司法正义插上翅膀。我国法院系统的许多法官和信息工作者也主要在这个意义上使用“数字正义”的概念。他们认为,为了创造更高水平的数字正义,应在诉讼服务和司法审判领域更好地运用“数字技术”,跨越“数字鸿沟”,建立“数字信任”,推动“数字治理”,服务“数字经济”。推进数字正义可以最大限度便利当事人,并降低诉讼成本。
然而,本文所说的“数字正义”则是社会正义原则和正义实现机制在数字领域的体现,是正义体系的重要组成部分与中枢。正如周尚君等学者所指出的,“数字正义,即如何以正义原则引导新兴数字技术对社会、法律与伦理进行重塑,以及如何为算法自动化决策划定正当边界”。“数字社会条件下,数字正义是社会正义不可或缺的有机组成部分,直接关乎社会主体享有数字技术发展成果的机会、条件、能力和实效。”可将“数字正义定义为数字技术应用,尤其是算法应用满足人权、正义、法治价值的一种理想状态”。
本文认为,提出数字正义、为数字正义而斗争,有两个基本指向:一是“数字鸿沟”;二是“数字歧视”。
随着数字社会的到来,互联网、物联网、大数据、人工智能、云计算、电子商务等新数字科技不断涌现,人们从泛在、先进、高效、便捷的数字科技运用中感受到科技让生活更美好。然而,我们必须正视,人们在对数字产品的拥有程度、对数字技术的使用程度、对数字生活的适应程度以及整体数字素养等方面的差距越来越大,形成了日趋扩大的数字鸿沟。
“数字鸿沟”概念(Digital Divide,Digital Gap)提出于上世纪90年代。美国未来学家阿尔文·托夫勒(Alvin Toffler)在1990年出版的《权力的转移》一书中描述了信息富人(info-rich)、信息穷人(info-poor)、信息鸿沟(information divide)、电子沟壑(electronic gap)等概念。美国国家电信和信息管理局(NTIA)在1995年和1998年先后发布了题为“在网络中落伍”的调研报告,并在1999年发布的题为“在网络中落伍:定义数字鸿沟”的报告中首次对“数字鸿沟”(Digital Divide)作出了定义式表述:数字鸿沟指在能够访问新技术(信息时代工具)的人们与那些不能访问新技术(信息时代工具)的人们之间形成的鸿沟。其后,许多国家和国际组织的官方文件,如世界经济论坛(WEF)的《从全球数字鸿沟到全球数字机遇》报告,以及联合国经社理事会、联合国开发计划署的相关文件中普遍使用了“数字鸿沟”概念,数字鸿沟从而成为国际社会高度关注的焦点议题。“数字鸿沟”概念越来越清晰地指称“由于信息和通信技术的全球发展和应用,造成或拉大的国与国之间以及国家内部群体之间的差距”。这种差距,既存在于国与国之间,也存在于一国之内的地区与地区、产业与产业、行业与行业、社会阶层与社会阶层、人与人之间,表现在经济、政治、文化、社会各个领域,是由于不同人群在对数据资源、信息技术的拥有程度、应用程度、分享程度方面的差异所造成的社会分化和社会公正问题。数字鸿沟也表现为不同人群在数字领域的规则与标准的制定权、解释权方面的主动与被动、“能”与“不能”。
缩小和消除“数字鸿沟”,努力让全体人民能够平等地享用数字科技、数字产品,实现数字生活上的共同富裕,是数字中国建设要解决的突出问题。形成数字鸿沟的根本原因是发展不平衡不充分,收入差别、教育差别、地域差别等导致的数字化基础设施建设水平和公民数字素养的不平衡问题仍然突出。弥合、填平数字鸿沟归根结底靠发展,靠提高全民数字素养。习近平总书记指出:“要适应人民期待和需求,加快信息化服务普及,降低应用成本,为老百姓提供用得上、用得起、用得好的信息服务,让亿万人民在共享互联网发展成果上有更多获得感。”按照习近平总书记的要求,根据党中央、国务院的决策部署,今年,中央网信办、教育部、工业和信息化部、人力资源和社会保障部联合印发了《2022年提升全民数字素养与技能工作要点》,提出:拓展数字资源获取渠道,做优做强数字教育培训资源,推动数字资源开放共享,促进数字公共服务公平普及;培育数字生活新应用新场景,提高智慧社区和智慧家庭建设应用水平,深化数字应用适老化改造,加快推进信息无障碍建设;增强妇女数字工作竞争力;增强网络安全、数据安全防护意识和能力,加强个人信息和隐私保护;提高全民网络文明素养,强化全民数字道德伦理规范;等等。此前,2020年11月24日,国务院办公厅印发《关于切实解决老年人运用智能技术困难的实施方案》,要求各部门聚焦涉及老年人的高频事项和服务场景,坚持传统服务方式与智能化服务创新并行,切实解决老年人在运用智能技术方面遇到的突出困难,实现普惠各类人群的“数字无障碍”公共政策与服务。2021年11月,中央网络安全和信息化委员会印发《提升全民数字素养与技能行动纲要》,强调指出,提升全民数字素养与技能,是顺应数字时代要求、提升国民素质、促进人的全面发展的战略任务,是实现从网络大国迈向网络强国的必由之路,也是弥合数字鸿沟、促进共同富裕的关键举措。提升全民数字素养与技能,需要关注重点人群,特别是要帮助老年人提升运用智能技术的技能,在就医、出行、亮码、扫码、缴费、购物、文娱、安全等应用场景,让更多老年人成功从容应用智能技术,跨越“数字鸿沟”。
[美]伊森·凯什、[以色列]奥娜·拉比诺维奇·艾尼:《数字正义:当纠纷遇见互联网科技》
赵蕾、赵精武、曹建峰译,法律出版社,2019年版
(图片来源于豆瓣)
如果说数字鸿沟是数字科技运用和经济社会发展不平衡不充分的表现,是客观存在的,具有客观性、过渡性,要靠经济、科技、教育和社会发展来弥合;那么,数字歧视则常常是主观的、人为的、深层次的,并且社会正义领域的顽瘴痼疾可能因为数字技术的应用而愈加放大,需要通过国家和社会认真治理来解决。数字歧视常指自动化系统基于用户的个人数据使其被不公平地、不符合伦理地或差异性地对待的情况。本文所称的数字歧视是一个广义的、兜底性的概念,举凡与逐利动机、科技伦理、利益导向、社会身份等主观因素相关联的可能对任何个人、群体、企业、国家造成歧视和偏见的数字不公,都可被归结为数字歧视,例如突破安全底线和道德边界的算法“黑箱”、数据垄断、平台异化、数据茧房等。当数字技术被用来“算计人”“奴役人”“凌霸人”的时候,正义便不复存在。例如:某市推出“文明码”遭到市民质疑;某公司通过算法将外卖小哥3公里1小时的送餐时限压缩为3公里38分钟,致使外卖小哥赶路的心理压力突然加大,交通风险激增;某地政法机关的负责人滥用职权,操控信息数据平台将银行储户的健康码由绿变红;某些公共场所不加区别地强制老年人、残疾人扫码;一些场所无必要、过度使用公民生物特征信息和人脸识别的大数据;未经允许违法收集用户手机相册中的截图信息、联系人信息;等等。目前,数字歧视已经成为一种结构性、常态化现象,到了必须治理的程度。消除数字歧视尤其是数据偏差、算法歧视、网络歧视等,是国家在数字治理领域的重点任务,是实现数字正义的必由之路。当然,对反数字歧视不能机械理解。针对治理数字歧视问题,马长山教授认为,应当坚持自主选择、公开透明、公平合理、尊重人权等正义原则,完善敏捷治理的监管机制、责任明确的自律机制、健全有效的社会监督机制、公正可靠的司法保障机制等。
三、数字人权
数字人权是数字法理中最具真理魅力和正义感召力的科学概念。数字权利是数字时代的新兴权利。数字人权引领第四代人权。
从思想渊源来看,数字人权(Digital Human Rights)这一概念来源于“网络人权”“网络空间中的人权”“信息人权”“数字权利”等。1997年,美国活动家罗伯特·B. 格尔曼(Robert B. Gelman)以《世界人权宣言》为范式提出了《网络空间人权宣言》建议草案,提出了“网络空间人权”概念及网络人权的基本内容。2014年,欧洲委员会通过了《互联网用户人权指南》,以保障互联网用户的权利和自由为宗旨,列举了互联网用户的一系列网络权利。2016年12月,27名德国专家发表《欧盟数字基本权利宪章》(Charter of Digital Fundamental Rights of the European Union)。以此为蓝本,一些国家(如西班牙)和国际组织(如欧盟委员会)等先后发布了有关数字权利的“宣言”“宪章”等。尽管这个时候还没有明确使用“数字人权”概念,但“网络空间人权”“数字基本权利”“数字权利”等实质上均属于“数字人权”范畴。
在中国,“数字人权”是 2019年5月张文显教授在“知识产权与相关权利的法理”学术研讨会上致辞时首次正式提出的一个法学新概念。在该致辞中,他论述了数字人权的理论和实践逻辑,还提出了“不数字,无人权”的命题。其后,我国学者陆续使用这一概念并发表了若干论文对其进行阐述。比较有代表性的是,马长山教授详细论述了当下人权问题的深刻变革与转型升级,提出了作为“第四代人权”的“数字人权”是“以双重空间的生产生活关系为社会基础、以人的数字信息面向和相关权益为表达形式,以智慧社会中人的全面发展为核心诉求,突破了前三代人权所受到的物理时空和生物属性的限制,实现自由平等权利、经济社会文化权利、生存发展权利的转型升级”,“本质是在数字时代和智慧发展中作为人而应该享有的权利”。目前,数字人权概念不仅得到了民间的普遍认可,还得到了官方的确认。2020年7月,全国科学技术名词审定委员会将“数字人权”作为一个新词,准予向社会发布试用。2022年3月,中央宣传部有关人权研究和宣传的文件明确提出,要加强对“数字人权”的研究,并编写相关教材。
数字人权是数字权利体系的皇冠。对此,张文显教授进行了系统论述,揭示了数字权利和数字人权的辩证关系,指出,数字权利是一个概括性概念、系统性概念,也是一个演进性、开放性概念。数字权利包括网络权利、数据权利、信息权利、数字人格、数字知识产权等与数字生活生产相关联的所有权利。在数字权利体系中,数字人权具有灵魂性、真谛性、统领性。中国正在加速建设成为“数字中国”,数字科技与人民生活深度融合,数字科技的广泛使用已经成为人民生活、生存和发展须臾不可或缺的一部分。人类生活和生存对数字科技高度依赖,越来越多的平民百姓通过互联网生产生活、买进卖出、结识好友、交流情感、表达自我、学习娱乐,开启了人类在信息空间中的数字化生存方式。中国互联网络信息中心(CNNIC)2022年2月25日在京发布《第49次中国互联网络发展状况统计报告》。《报告》显示,截至2021年12月,我国网民规模达10.32亿,网民人均每周上网时长达到28.5个小时。在这种背景下,“数字人权”脱颖而出。把对数字科技的掌握和运用奉为“权利”并揭示其“人权”属性,提炼出“数字人权”概念,普及“数字人权”理念,既十分必要、甚为迫切,也顺理成章、水到渠成。实际上,人民群众早就深深地感受到并逐渐理性地认识到“不数字,无人权”。
学界认为,“数字人权”概念和“不数字,无人权”命题的意义在于:第一,在价值上申言数字科技必须以人为本,必须把实现人的权利和尊严作为数字科技研发运用发展的最高目的,并以保障人权作为其根本的划界尺度和评价标准。要在制度上强调科技企业尊重和保障人权的责任,以及政府尊重、保障和实现“数字人权”的义务。这种责任和义务,一方面表现为对公民(用户)数字化生活中隐私权、数据权、表达权、人格尊严权等权利和自由的尊重与保护,另一方面也表现为互联网基础设施及其他数字化设备的有效提供。第二,以人权的力量和权威强化对数字科技开发及其运用的伦理约束和法律规制。第三,以数字人权引领新一代人权发展。在世界范围内,人权形态发生了三次历史性转型,目前正迎来第四代人权,引领第四代人权的正是“数字人权”。第四,提升中国民主、人权、法治和法学理论在国际社会的话语权。目前中国的硬实力显著增强,但面临着严重的话语缺失和“话语逆差”问题。从国际人权话语竞争看,“数字人权”概念最有可能成为一个可以产生出具有世界影响力的标识性概念。我们应该抓住这个有利时机和学术空档,通过对“数字人权”的科学阐释和制度构建来引领新一代人权,引领国际社会的“数字人权”研究。
作为一个新概念,数字人权的内涵有待进一步阐释,但就其真谛和要义而言,数字人权指的是在数字时代和数字社会中与人作为人应当享有的那些与数字生活关联的权利。数字人权的核心是与人在数字领域的尊严、平等、自由、能力相关的那些权利,例如,平等利用数字技术、共享数字革命成果而不受歧视或被边缘化,免受数字技术运用所造成的有形或无形的侵害,对个人的信息数字化、数据财产化拥有自主支配权,特别是对具有人格属性的信息和数据享有知情同意权,拥有对大数据、人工智能算法释明的请求权、问责权,依法独立自主地使用互联网、个人及公共数据的权利和自由等。
数字人权是基础性、中枢性的数字权利。没有数字人权这一位居真理和正义制高点的概念,信息权、数据权、隐私权、网络自由等具体的数字权利是经不起风吹浪打的。在数字中国和法治中国建设中,我们必须认真对待数字人权,以数字人权证成数字权利、统领数字权利体系,要善于把人民群众在数字生活中最关切的利益主张和权利需要及时上升至权利和人权范畴,不断完善数字人权的法治保障体系,提高数字人权法治化保障水平。
四、数字主权
数字主权是“数字国家”新主权,是国家主权新形态。数字主权既包括国家处理其数字空间事务的独立自主性,也包括国家主导本国数字发展的权能。反制数字霸权,保卫数字主权。
国家主权简称“主权”,是指国家具有的独立自主地处理自己的对内和对外事务的最高权力。它具有两方面的特性,即在国内是最高的,对国外是独立的。传统的国家主权主要包括政治主权、经济主权、领土主权、对外主权、属人主权等。在权利内容上,国家主权包括独立权、平等权、管辖权、自卫权等。主权是国家作为国际法主体必备的条件。互相尊重国家主权是现代国际法确认的一条基本原则。国家主权的这些内涵和原则为数字主权的形成与运行奠定了重要基础。
纵观世界文明史,国家主权的含义因时而变,不断丰富。人类先后经历了农业革命、工业革命、信息革命,每一次产业技术革命,都给国家主权的内涵和外延带来巨大而深刻的影响。在农业时代,人类的活动空间主要集中在陆地,国家主权的重点在于捍卫领土完整。在工业时代,人类的活动空间从陆地拓展到了海洋和天空,国家主权的范围也随之延伸扩展至领海和领空。进入信息时代后,网络空间与人类活动的现实空间高度融合,成为了现代国家的新疆域、全球治理的新领域,网络主权由此产生。随着数字化技术的不断丰富和数字中国建设的不断推进,我们可以将“网络主权”的概念扩展至“数字主权”。
“数字主权”这一概念是欧洲国家面对美国数字科技企业日渐扩大的影响力而首先提出的。欧洲人大约在21世纪初期逐渐提出“数字主权”(Digital Sovereignty)的概念。2011年,法国Skyrock广播电台的首席执行官皮埃尔·贝朗格(Pierre Bellanger)首先尝试定义“数字主权”,提出“数字主权是通过使用技术和计算机网络来体现和引导的对我们当下和未来命运的控制”。我国有学者提出,数字主权“可以表现为控制和规范数字的原始能力”,也是“构建数字规则的基础规范”。“数字主权是国家主权的重要组成部分,但各国并不具备同等能力确保这种数字主权。”
本文所称的数字主权是一个广义的概念。从网络、数据、算法和系统等角度来看,数字主权主要包括网络主权、数据主权和数字技术主权,这也反映了数字主权的不同维度和发展阶段的特征。
Alvin Toffler:Powershift:Knowledge,Wealth,Violence at the Edge of the 21st Century
Bantam,1991
(图片来源于豆瓣)
首先是“网络主权”。网络主权曾经是富有争议的话题。本世纪以来,越来越多的重要国际文件认可了国家主权原则适用于网络空间。2003年联合国信息社会世界峰会通过的《日内瓦原则宣言》就提出,“互联网公共政策的决策权是各国的主权”。2021年世界互联网大会乌镇峰会上发布的《网络主权:理论与实践(3.0版)》将网络主权定义为“国家主权在网络空间的自然延伸,是一国基于国家主权对本国境内的网络设施、网络主体、网络行为及相关网络数据和信息等所享有的对内最高权和对外独立权”;并指出,网络主权的主要权利维度包括独立权、平等权、管辖权和防卫权,网络主权的主要义务维度包括不侵犯他国、不干涉他国内政、审慎预防义务和保障义务。2022年中国代表团向联合国信息安全问题开放式工作组提交的《中方关于网络主权的立场》也反映了同样的观点。
其次是“数据主权”。数据主权与信息主权有比较密切的关系。“信息主权”主要指国家对信息享有保护、管理和共享的权力。有学者提出,从人类最早的传播媒体印刷术开始,信息技术就冲撞着国家的主权边界,国家主权因信息技术的发展不断拓展着自身的概念空间。信息科技发展到大数据时代,数据的战略价值更是得到前所未有的重视。相关国家积极探索对数据的有效治理,力图找到确保安全和促进发展的平衡点。数据主权即强调国家对数据和信息等享有对内最高权和对外独立权。
最后是“技术主权”(Technological Sovereignty)。科学技术对国家主权具有影响是一个经典的话题。对“技术主权”或“科技主权”的探讨并不局限于数字科技领域,例如一些学者也在前沿生命科技领域进行研究,但当前数字科技及其发展的不均衡对主权的影响非常显著。近些年来,欧盟非常重视数字科技对主权的影响。2020年2月,欧盟委员会接连发布了《塑造欧洲的数字未来》(Shaping Europe's Digital Future)、《人工智能白皮书》(The White Paper on Artificial Intelligence)和《欧洲数据战略》(A European Strategy for Data)三份重要的数字战略文件,“技术主权”即为贯穿其中的核心概念。欧盟委员会主席乌尔苏拉·冯德莱恩(Ursula von der Leyen)表示,“技术主权”(Tech Sovereignty)“这个概念描述了欧洲必须具有的能力,即必须能够根据自己的价值观并遵循自己的规则来作出自己的选择”。我国有学者将欧盟提出的“技术主权”概念总结为三个层面:基础设施和工具、标准和法律规则、价值观和社会模式;认为在最后一个层面上,欧洲认为其经济和社会模式与中美等国的经济和社会模式有本质不同,如果主要依赖源于中美的技术(特别是人工智能技术),由于其蕴含中美的经济和社会成分乃至价值观,势必对欧洲模式构成威胁和破坏。
欧盟也在“技术主权”的脉络上明确提出了“数字主权”概念。2020年7月,欧洲议会发布《欧洲的数字主权》(Digital Sovereignty for Europe)报告,指出“技术主权”或“数字主权”概念最近已成为促进欧洲在数字领域的领导地位和战略自主权理念的一种方式。人们对非欧盟的科技公司对欧盟的经济和社会影响抱有强烈的担忧,认为这威胁到欧盟公民对其个人数据的控制,并限制了欧盟的高科技公司的发展以及欧盟成员国和欧盟规则制定者执行其法律的能力。在这种情况下,“数字主权”是指欧洲在数字世界中独立行动的能力,应该从促进数字创新的保护性机制和防御性工具的角度(包括与非欧盟公司合作)来理解。欧盟委员会提出《欧洲芯片法案》(The European Chips Act)时也强调了“数字主权”这一核心问题。应该说,技术主权或数字主权的提出是在数字领域推广欧洲的领导地位、加强欧洲战略自主权的一项重要举措,也是指导欧盟许多政策和法律制定的重要概念。因此,“数字主权”概念也表达了反对数字霸权的态度,强调了国家主导本国数字发展的权能。有学者认为,欧盟提出的数字主权包含内外两个维度的自主性:对内助推本土数字企业成长,发展关键数字技术以保护供应链安全;对外防御境外数字巨头对欧洲数据安全的侵犯,打击它们在欧洲市场的垄断行为。同时,数字主权也强调了欧盟一贯坚持的开放市场原则。
杨泽伟:《主权论:国际法上的主权问题及其发展趋势研究》
北京大学出版社,2006年版
(图片来源于豆瓣)
中国共产党和中国政府一向坚持数字主权理念,坚定维护我国的网络主权、信息主权、数据主权等,充分尊重各国的数字主权。习近平总书记在一系列重要场合和国际会议上对网络主权作出了全面、深刻和权威的阐述,深刻指出:“当前,以信息技术为代表的新一轮科技和产业革命正在萌发,为经济社会发展注入了强劲动力,同时,互联网发展也给世界各国主权、安全、发展利益带来许多新的挑战。”“中国愿同国际社会一道,坚持以人类共同福祉为根本,坚持网络主权理念,推动全球互联网治理朝着更加公正合理的方向迈进,推动网络空间实现平等尊重、创新发展、开放共享、安全有序的目标。”习近平总书记关于数字主权的重要论述,为我们深入研究数字主权问题指明了政治方向,奠定了理论基础。
五、数字平台
数字平台是经济社会发展新平台。平台权力是权力体系新成员。平台权力是把双刃剑。
随着数字科技及其应用的发展,特别是互联网进入Web 2.0时代以来,数字平台或网络平台日益成为社会生产生活中不可忽视的力量。数字平台的产生和发展,促进了信息流动和生产生活组织方式的变革,促成了信息成本和交易成本的大幅度降低,带来平台经济、共享经济等经济形式的兴起以及生产方式的深刻变化。同时,数字平台已经构成重要的社会生活的基础平台,数字平台公司在很大程度上承担起了社会公共秩序维护者的角色。可以说,数字平台既是经济发展的新平台,也是社会组织的新平台。
数字平台对人们的行为和思维具有超强支配力,以至于许多研究者提出了“平台权力”的概念,以及可在很大程度上表征平台权力的“中介权力”“守门人权力”“数据权力”“算法权力”等概念。在现代国家,权力在国家—市场—社会中形成的力量分布就是权力结构。不同历史时期和不同传统的社会必然存在不同的权力结构。数字平台使得数字时代的权力结构发生重大变化,平台权力成为权力体系的新成员。针对平台权力的研究,主要有四个分析视角:
一是反垄断分析视角。该视角特别关注平台经济、数字经济领域极易产生占据市场支配地位的经营者。这些经营者掌握海量的数据等关键生产要素,并由此具有“市场权力”。数字平台是数字经济的主要资源配置与组织方式,往往天然具有集中性。首先,数字平台以提供数字化产品和服务为主,往往具有边际成本较低、天然的跨地域性等特点,呈现出非常突出的“规模经济性”,即扩大经营规模可以显著降低平均成本,提高利润水平。其次,数字平台往往具有突出的网络效应,即平台对于消费者的价值随着消费者数量的增加而增加。网络效应进一步强化了数字平台的规模经济性。同时,在大数据、人工智能技术迅猛发展的今天,数据的积累对竞争产生着重要的影响:一方面,能够访问大量数据的公司可以用小公司无法做到的方式或以更低的成本来提高其产品和服务的质量;另一方面,大数据分析、机器学习等对数据的利用加强了数字平台的“范围经济性”,即更多种类的产品和服务可为平台提供额外的优势。平台企业可以利用从现有服务中获得的数据和用户群体,以更高质量的产品便利地进入邻近市场。更多的经营领域又进一步便于带来更丰富多维的数据。大数据分析和机器学习的发展是平台的规模收益和范围收益递增的一个重要来源,这又进一步推动了数字市场的集中。
二是数字平台的“公共性”视角。研究者从许多数字平台的公共性出发,观察和分析“平台权力”。例如:土耳其科技社会学家泽内普·图费奇(Zeynep Tufekci)认为,对于21世纪的一个公民、一个消费者、一个有知识的人、一个社会人而言,出现在互联网上是全面有效参与社会生活的必然要求;我国学者高薇认为,“网络平台对人们非常重要,对一个人的社会存在必不可少”;等等。一些数字平台被视为数字社会中的“公共承运人”“社会基础设施”。有研究者提出了“基于社会基础设施的权力发生机制”的概念;认为平台通过控制社会基础设施对使用该设施的人拥有直接的支配能力,同时对整个社会具有某种支配性的影响力;还提出,在数字社会中,“基础设施媒介化和媒介基础设施化”,二者相互强化,不断地塑造着平台权力的样态与范围,最终,数字社会的基础设施即平台,平台即基础设施。许多数字平台的公共性、基础设施化,是其权力的发生机制。
三是数字平台的规则制定和管理监督能力视角。平台不断强化对要素的控制力,主要体现在算法设计、行为管理规范和生产组织过程上。通过制定和实施平台规则,平台实际上拥有并行使着监管平台上的行为、定义平台规则、影响交易者与利益相关者的巨大权力,形成了所谓“有组织的私人秩序”。加之技术赋能和法定义务的履行,平台实际拥有的权力是具有监管性质的私主体权力。
四是数字平台算法与社会的强互动/深度介入视角。数字平台可以基于数据进行算法分析,进而进行信息推送、个人信用评价等决策,与各种社会规范和社会制度相融合,形成了新的规则体系,并能够高效运行。政府与数字平台的合作也使得一部分公共权力转移到数字平台之内。数字社会的算法与社会的强互动形成算法对生产、生活和治理的实时参与,直接落入了德国社会学家马克斯·韦伯的权力分析框架。我国学者胡凌对此从“评分社会”的视角进行了分析,指出无论是商业力量还是国家机构,评分都代表了一种新型权力机制,这种机制和数据、算法紧密结合在一起,对数字时代社会主体行为产生重要影响。传统的“权力决定信息分配”正在被“信息决定权力分配”取代。真可谓是,“掌握了数据,就意味着掌握了资本和财富;掌握了算法,就意味着掌握了话语权和规制权”。
可以看到,以上几个方面是密切交织、相辅相成的,共同推动着数字平台权力的形成和发展。
“纵观人类政治文明史,权力是一把双刃剑,在法治轨道上行使可以造福人民,在法律之外行使则必然祸害国家和人民。”在平台权力是权力体系新成员这一命题之下,则有“平台权力是把双刃剑”这一推论。
一方面,正如“权力”的合法运用对社会具有积极作用,是社会有序运行的重要基础一样,我们要正视“平台权力”中蕴含的积极因素。首先,需要正确看待数字平台规模大、经营集中的问题。数字平台市场中往往容易出现一个或少数几个平台具有市场支配地位的情况。在这些平台不滥用市场支配地位的情况下,这种状况对于促进经济增长、技术进步、效率提高和消费者福利往往具有积极意义,并且具有服务能力、研发能力的大型平台也是提升我国企业在国际竞争中的优势地位所需要的。其次,数字平台为数字社会提供了丰富的公共服务和基础设施。微博、微信群、微信朋友圈、抖音等新社交(结社)方式和信息民主形式都得益于数字平台的技术供给。最后,平台基于法律规定和自主性制定规则,通过算法自动实施部分规则和监督平台上的违法行为,是有效维护公共秩序的重要保障。
林建宗:《平台型电子商务中私人秩序研究》
经济管理出版社,2019年版
(图片来源于当当)
另一方面,“权力的扩张与滥用是权力的天然特性”。数字平台滥用市场支配地位、排除竞争和妨害竞争的行为,以及平台基于其作为社会基础设施具有的支配力和制定规则、实施规则的能力而侵害公民权利等行为,也具有极强的影响力,需要在数字法治之中予以格外重视。国务院反垄断委员会2021年2月7日发布的《关于平台经济领域的反垄断指南》,针对平台经济领域经营者利用数据、算法等达成横向垄断协议、纵向垄断协议和轴辐协议等情况,以及平台经济领域经营者滥用市场支配地位,利用算法排除、限制竞争等情况作出了相关规定。2022年6月24日全国人大常委会修改通过的《反垄断法》特别增加了1条作为第9条:“经营者不得利用数据和算法、技术、资本优势以及平台规则等从事本法禁止的垄断行为”;并在第三章“滥用市场支配地位”中增加了1款作为第22条第2款:“具有市场支配地位的经营者不得利用数据和算法、技术以及平台规则等从事前款规定的滥用市场支配地位的行为。”欧盟的《数字市场法》则对构成法律中规定的“守门人”的互联网企业提出一系列规范性要求。同时,人们也从权利本位、数字人权、数字权利体系、评分社会、算法规制等维度提出对平台权力的制约监督,例如我国《民法典》人格权编、《个人信息保护法》《互联网信息服务算法推荐管理规定》等,都是科学约束数字平台权力的重要维度。
六、数字向善
数字科技是第一创造力,数字向善是第一价值观。数字向善既是伦理要求,也是责任原则的发展。
“数字向善”即指数字科技领域内的“科技向善”。“科学技术是第一生产力。”科技的进步是推动人类社会革命、历史变迁、文明演进的重要力量,甚至是决定性力量。自第一次工业革命以来,世界各国逐渐形成共识:科技创新对于社会进步、经济增长、人类福祉的提高和国家安全与竞争力的提升具有重要意义。因此,各国政府纷纷出台鼓励科技创新的政策。特别是本世纪以来,每当科技界提出一个新的发展方向,很快就可以看到多国政府纷纷研究并发布促进政策。当前数字科技持续迅猛发展,辐射到社会生产生活的方方面面,被认为是第四次产业革命中最为重要的因素,具有广阔的发展和应用前景。可以说,数字科技是“第一生产力”中的第一创造力。
数字科技在推动社会生产生活方式变革的同时,也可能给社会带来各种风险和隐患。由此,特别是随着新一轮人工智能技术的发展,许多国家、地区和组织都纷纷开展了人工智能伦理研究,希望能够保障自动化决策系统符合伦理规范,推动可信人工智能技术的发展,并提出了众多伦理准则。在这样的背景下,2018年1月20日,腾讯研究院举办“科技向善”研讨会,正式提出“科技向善”的概念,希望发挥新技术潜力,惠及大多数人生活,解决传统社会特别是数字化转型中面临的难题,帮助人类变得更强大、更幸福。避免技术作恶,将社会责任融入产品及服务之中,引导新科技被善用而不是滥用,建设更好的数字文明。
“科技向善”概念是对“技术中立”概念的超越和变革。在过去一个时期,“技术中立”曾经被视为科技治理的一项重要原则,其内涵在于:
首先,在确定技术产品或服务提供者的法律责任的语境下,“技术中立”常被用以反映希望限制技术产品或服务提供者的法律责任范围、鼓励科技发展运用的价值取向。例如,在知识产权领域,“技术中立”原则往往指,如果一项技术具有实质非侵权用途,则不应因该项技术被用于侵权用途而追究该技术产品提供者的侵权责任。因此,“技术中立”原则也被称为“实质非侵权用途”原则。一般认为,著作权法中的“技术中立”原则是1984年美国联邦最高法院在“索尼案”中提出的,因此也被称为“索尼规则”。在该案中,美国联邦最高法院引入了此前在专利法领域适用的“通用商品原则”,认定索尼公司生产的Bebamax录像机具有实质非侵权用途,因此索尼公司出售Bebamax录像机不构成“帮助侵权”。“技术中立”原则也被用于限定网络服务提供者的侵权责任边界。例如,著作权法中的“通知—删除”规则,也被认为是“技术中立”价值理念的具体体现,其在确立之初被认为是维持著作权人和网络服务提供者之间利益平衡的最佳方案。然而,在2004年关于P2P文件传输技术的Grokster案的判决中,美国联邦最高法院判定Grokster开发经营者的行为构成教唆侵权。这个判决虽然没有直接否定“索尼案”确立的裁判规则,但很明显美国联邦最高法院的价值判断发生了变化。《欧盟版权指令》中对“通知—删除”规则的改变,以及我国关于网络服务提供者责任界定的法律实践,也都反映了对“技术中立”原则需要根据技术发展和具体场景而重新解释的导向。
其次,“技术中立”原则也被用来表明:法律应当对交易使用的技术手段一视同仁,不应把对某一特定技术的理解作为法律规定的基础而歧视其他形式的技术;法律不应该狭窄地针对特定技术而制定,而应该更具包容性地针对普遍情况来制定,进而克服法律条文僵化和过时等弊端。尽管“技术中立”原则具有防止法律歧视某些技术、避免法律规定落后于技术发展进而妨碍技术应用等积极意义,但“技术中立”原则不应被机械适用。一方面,其并不能一劳永逸地解决未来技术与法律之间的紧张关系,用依照“技术中立”原则制定的法律来规制未来技术可能存在如下缺陷:立法者难以准确预测对新技术的恰当规制程度;规制可能过度或不足,可能有损创新;不论法官对法律中相关概念的解释是采用行为视角(技术产出或结果)还是采用结构视角(机器或系统内部构成),都容易导致司法适用上的不一致;法律对技术的规制本身并不中立,其对未来技术的预先规制极可能出现错误判断;等。另一方面,极度简化的技术中立的立法能否保障安全性、实现立法目的,也需要审慎考虑。在实践中,司法与执法机构可以积极探索用标准、行业最佳实践等灵活、弹性的规范与示例在法律和技术之间进行衔接。
在立法技术层面,“技术中立”仍然是重要的法律原则,但责任确定原则意义上的“技术中立”,特别是技术或技术应用无涉价值的命题,则一直受到很多质疑。例如,Robert J. Whelchel认为,“由于技术具有价值体系,因此它不是中立的”。“技术的价值是自然属性和社会属性、目的与手段的辩证统一,其焦点是制度在其中的作用。”张凌寒认为:“网络平台时常自辩自己处于技术中立的地位,无法承受‘海量数据处理’之重”;然而,“技术原理是中立的,但是技术的应用是包含主观意图的,应将平台算法设计部署的主观过错作为问责依据”。在数字科技运用中,数据可能是有失偏颇的,算法可能是具有歧视性的,或者在算法目标设定时没有将社会伦理和法律规范仔细考虑在内……,诸如此类的问题往往都有一定的方式来弥补和改进。由此,数字向善的概念,不仅是伦理道德层面的号召,更是指出人们能够对数字科技的向善发展和运用产生积极影响。我国于2020年成立了国家科技伦理委员会,中共中央办公厅、国务院办公厅2022年印发《关于加强科技伦理治理的意见》,都反映出对科技向善的推动。从企业自律角度而言,数字科技企业可设立伦理委员会,在部署和应用数字系统前开展影响评估或伦理审查,并持续进行评估。“科技向善”如何与法律进行科学协调和有效衔接,是值得研究的重要问题。制度构建既需要从责任与监管角度进行引导和规范,也需要从科技发展水平、制度成本、替代机制等方面综合考虑。
“数字向善”要求我们,既需要在认识论上明确数字科技的风险及数字科技的可规范性、可发展性,对治理方式开展研究,也需要在价值论上对“善”的概念进行进一步研究。例如马长山教授提出,科技向善的基准已不再是以物质分配为核心的“物理”正义,而是以信息分享/控制为核心的数字正义。这要求我们深度研究“数字正义”,并以此作为科技向善的指导。但是,无论技术如何发展,“以人为本”始终应是其根本价值追求。
七、数字安全
数字安全和发展是一体之两翼、驱动之双轮。安全是发展的前提,发展是安全的保障。
安全问题在数字科技应用的早期便开始受到关注,并随着数字科技自身的发展及应用领域的不断扩展而倍加受到重视。在当今时代,大数据、云计算、物联网、人工智能、区块链等信息技术的融通应用既为数字经济、数字社会、数字政府的建设发展赋能,也对数字安全的法治保障提出了迫切的要求。
数字安全是指数字系统及应用处于稳定可靠运行的状态以及保障其安全性的能力。数字安全既包括基础层面和要素层面的网络安全、数据安全、个人信息安全、信息系统安全等,也包括应用层面新数字科技运用的安全;既包括宏观的国家安全、社会安全,也包括社会个体权利的安全。
习近平主席在致2021年世界互联网大会乌镇峰会的贺信中强调,要“激发数字经济活力,增强数字政府效能,优化数字社会环境,构建数字合作格局,筑牢数字安全屏障,让数字文明造福各国人民,推动构建人类命运共同体”。这段论述深刻说明“数字安全”对于数字文明发展的重要意义。
我国已初步形成数字安全法律体系。在《国家安全法》的引领下,《网络安全法》《密码法》《数据安全法》《个人信息保护法》等陆续出台,为维护数字安全提供了系统的法律制度支撑。
在数字安全问题中,最重要的是处理好安全和发展的关系。早在2003年发布的《国家信息化领导小组关于加强信息安全保障工作的意见》就提出,加强信息安全保障工作的主要原则之一是,“正确处理安全和发展的关系,以安全保发展,在发展中求安全”。党的十八大以来,以习近平同志为核心的党中央高度重视发展与安全问题。2014年4月,习近平总书记提出总体国家安全观,并强调贯彻落实总体国家安全观,必须“既重视发展问题,又重视安全问题,发展是安全的基础,安全是发展的条件”。此后,习近平总书记多次强调安全和发展的辩证关系,指出,“安全和发展是一体之两翼、驱动之双轮”。“网络安全和信息化是相辅相成的。安全是发展的前提,发展是安全的保障,安全和发展要同步推进。”“要坚持促进发展和依法管理相统一,既大力培育人工智能、物联网、下一代通信网络等新技术新应用,又积极利用法律法规和标准规范引导新技术应用。”
科学统筹安全和发展,一直以来都是数字安全法治的重要原则。我国数字安全领域的几部重要法律均明确规定了统筹安全和发展的立法目的。《网络安全法》将立法目的表述为“保障网络安全,维护网络空间主权和国家安全、社会公共利益,保护公民、法人和其他组织的合法权益,促进经济社会信息化健康发展”。《数字安全法》的立法目的为“保障数据安全,促进数据开发利用”,“维护国家主权、安全和发展利益”,明确体现了确保安全和发展的双重目标。《个人信息保护法》也明确了“保护个人信息权益,规范个人信息处理活动,促进个人信息合理利用”的立法目的。
一方面,安全是发展的前提。“国家安全和社会稳定是改革发展的前提。只有国家安全和社会稳定,改革发展才能不断推进。”数字经济和数字社会也同样要在安全的前提下才能不断发展。对于数字安全要在总体国家安全观下理解。总体国家安全观强调“以人民安全为宗旨”,强调“既重视传统安全,又重视非传统安全,构建集政治安全、国土安全、军事安全、经济安全、文化安全、社会安全、科技安全、信息安全、生态安全、资源安全、核安全等于一体的国家安全体系”。这是中共中央和中央政府对国家安全理念和国家安全模式长期探索的成果。这要求数字安全建设必须“以民为本,以人为本”,不仅聚焦于传统意义上的科技安全、信息安全,而且要看到,在数字中国的背景下,数字安全关乎整个国家安全体系。要对传统问题进行数字化时代的非传统思考,同时对于随着数字技术发展而不断产生的“非传统安全”问题要有敏锐的认识,进行科学的治理。
另一方面,发展是安全的保障。首先,科学技术本身的自主发展是数字安全最根本的保障。习近平总书记强调,“只有把关键核心技术掌握在自己手中,才能从根本上保障国家经济安全、国防安全和其他安全”。“要牵住数字关键核心技术自主创新这个‘牛鼻子’,发挥我国社会主义制度优势、新型举国体制优势、超大规模市场优势,提高数字技术基础研发能力,打好关键核心技术攻坚战,尽快实现高水平自立自强,把发展数字经济自主权牢牢掌握在自己手中。”特别是近年来,我国数字技术产品领域的供应链安全遭到极大挑战。我国必须坚持科技自立自强,对高端芯片、操作系统、工业软件、核心算法与框架等“卡脖子”的关键数字技术加强攻关。发展数字科技既要依靠国家政策支持,更要充分调动和激励市场力量。数字经济、数字产业的蓬勃发展,是数字科技发展的强大动力和重要条件。我国也要积极参与数字科技、数字经济、数字治理领域的国际合作,牢牢把握数字经济发展主动权。其次,发展是总体国家安全的重要保障,而创新又是引领发展的第一动力。在新一轮产业革命中,数字科技是引领性创新领域。习近平总书记高度重视发展信息技术对国家发展的意义,强调“我国经济发展进入新常态,新常态要有新动力,互联网在这方面可以大有作为”。我们要深刻认识数字科技、数字经济、数字产业的发展对于数字安全、国家安全的重大意义。
此外,从统筹安全和发展的角度,也必须深刻认识和积极应对数字领域的风险。正如德国学者乌尔里希·贝克(Ulrich Beck)所说,人类社会已经进入“风险社会”阶段。美国学者彼得·胡贝尔(Peter Huber)认为,公共风险(public risk)指那些集中或大规模生产的、广泛传播的、且在很大程度上超出了个体风险承担者直接理解和控制的对于人的健康或安全的威胁。数字领域的风险往往具有公共风险的特性。数字安全治理中特别要关注公共风险的两面性:一方面,公共风险往往难以仅通过市场机制就得到有效控制;另一方面,带来此类风险的技术应用在整体功能上可能有利于减少整体风险和增进公共福祉,即其在引入局部风险的同时,如果实施得当,可以在整体上降低风险、提高福利。因此,对于数字科技的影响和风险需要进行科学全面的评价。
八、数字治理
数字治理是当代中国国家治理领域的主场域,是国家治理的一场深刻革命。数字治理的核心是算法治理。数字治理的目标是构建包容性数字社会秩序。
“数字治理”这一词语在20世纪90年代就出现在西方公共管理学者的论著中,后被广泛运用于管理科学和行政学论著中。然而,管理学者和行政学者运用的“数字治理”一词与作为法理概念的“数字治理”是截然不同的。管理学和行政学通常把“数字治理”界定为:“数字治理是将现代数字化技术与治理理论融合的一种新型治理模式,……主要指政府、公民及其他主体依托信息技术的运用而进行的参与、互动与合作,是融合信息技术与多元主体参与的一种开放多元的社会治理体系。”数字治理有时也被界定为政府机关“通过利用数字技术提升政府效率效能、优化公共政策制定、提高公共服务水平、扩大公众参与、推进制度转型”。这种定义等同于“数字政府”“数字行政”,表现为行政机关“通过数字化思维、数字化理念、数字化战略、数字化资源、数字化工具和数字化规则使政府形态和社会治理模式发生转变”。
进入新世纪后,随着数字领域、网络空间、信息社会越来越成为国家治理的重要方面,“数字治理”的内涵发生根本性变化。在国家治理体系范畴内,数字治理主要指对互联网、大数据、云计算、人工智能、区块链等数字科技运用等进行的国家治理、社会治理、行业自治等。同时,在世界范围内,也出现了推动数字治理规则变革,打造公正合理的数字治理规则的呼声和动向。习近平总书记提出,推进全球互联网治理体系变革,应该坚持“尊重网络主权、维护和平安全、促进开放合作、建构良好秩序”四项原则,“共同构建网络空间命运共同体”。以这些重要原则为内涵的“数字治理”无疑已成为一个崭新概念。考虑到学科传统和思维差异,可以说,“数字治理”包括两个核心内涵:一是运用数字技术进行治理;二是对数字科技及其社会影响进行治理。本文主要在第二种意义上论述数字治理问题。
我们已经进入数字时代,生活在数字社会。对人类来说,数字科技是一把双刃剑,数字化不仅带来了权利的福音,还伴随着权利的危机。人们在享受互联网技术、大数据技术、人工智能技术、算法程序等数字科技带来的个性解放、生活便利、经济增长、民主进步、文化多元、社会安全等福祉时,也面临因个人数据被过度采集和不当使用而招致的隐私泄露、不平等对待(歧视)、被非法监视等风险。在这个意义上,数字社会是一个典型的风险社会。面对数字科技的社会风险,我们还没有找到一套科学管用的治理规则和体制,因此,数字治理赤字问题比较突出,诸如算法失控、网络失序、数字鸿沟、数字歧视等,数字治理成为国家治理体系的短板所在。特别是数字科技日新月异、算法泛在日益深入,而数字治理的观念、制度、体制相对滞后,数字治理越来越成为数字中国和法治中国建设的重点突破口。
[德]乌尔里希·贝克:《风险社会》
张文杰、何博闻译,译林出版社,2018年版
(图片来源于豆瓣)
数字科技是包括大数据、云计算、区块链、互联网、物联网、人工智能等在内的前沿技术,而将它们驱动起来、系统集成、融会运用的则是算法;因此,数字科技的核心是算法,数字治理的关键是算法治理,在这个意义上甚至可以说,数字治理归根结底就是算法治理。最近几年,党和国家有关部门有的放矢地出台了一系列关于算法治理的法规和规章。2021年12月31日,国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》,对算法黑箱、算法歧视、信息茧房、舆论操控、不正当竞争等问题作出了制度性规定,其中既包括伦理与法治相衔接、推动社会共建共治共享、实施分类分级管理等原则,也包含弹性条款与具体规则相结合、建立互动的监管关系、赋能公众监督、实施敏捷治理等具体结构和路径。同年9月29日,国家互联网信息办公室、中共中央宣传部、教育部、科学技术部、工业和信息化部、公安部、文化和旅游部、国家市场监督管理总局、国家广播电视总局等九部门联合发布《关于加强互联网信息服务算法综合治理的指导意见》,提出“利用三年左右时间,逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局”的主要目标,并确立了坚持正确导向、依法治理、风险防控、权益保障、技术创新等五项基本原则。近期,国家互联网信息办公室发布《关于发布互联网信息服务算法备案信息的公告》,在算法治理上迈出坚实步伐。
研究者们针对算法治理问题提出和论述了算法规制的谱系、场景化的规制方式、穿透式的监管措施、结构化的问责机制包含技术标准的软法治理体系。等。针对算法治理的特殊性和复杂性,特别是针对我国算法治理领域的短板和弱项,笔者曾提出构建多元共治的算法治理格局。这里的“多元”一是指规则的多元,也就是治理手段的多元,包括法律之治、道德之治、市场之治、科技之治;二是指主体的多元,包括政府治理、社会治理、企业治理、公民治理等。以此形成法治、德治、自治、智治相结合,政府政策倡导与科学监管、社会深度监督、公民依法维权、企业有效自治相辅相成的算法治理新格局,构建以良法善治为价值基础,统筹自由和秩序、安全和发展、权利和义务、主权和人权、数字政府和数字社会、数字中国和数字世界的包容性数字社会秩序。
未来,我国可继续从建构分级分类治理、敏捷治理的监管体系,健全算法领域的社会监督组织,完善和发展公民数字权利体系,健全算法服务提供者的责任体系,建立有效的维权机制,推进企业合规的创新措施,鼓励技术创新发展等方面进行完善发展,形成算法治理的中国方案,为构建更加公正合理有效的全球数字治理体系作出负责任大国的重大贡献。
九、数字文明
数字文明是人类文明新形态。数字伦理和数字法理是数字文明的阿基米德支点,是人类文明迈向数字文明新时代的关键支撑。
进入21世纪,数字生活日益成为人们生活新图景,数字文明日益成为人类文明新形态,人类跨步迈向了数字文明新时代。
从纵向看,数字文明是继农业文明、工业文明、信息文明之后出现的新型文明,是人类历史上第四个具有划时代意义的文明形态,是以大数据、云计算、区块链、互联网、物联网、人工智能等前沿技术的综合发展和向善而用为标志的文明形态。从横向看,数字文明是与物质文明、精神文明、制度文明、生态文明梯次产生又并行存在的人类文明形态。在20世纪形成、在21世纪定型的数字文明既是其他四个文明的数字化表达,又是其他四个文明发展进步的驱动力量。习近平总书记在一系列重要讲话中提出并深刻论述了“数字文明”“迈向数字文明新时代”等概念和命题,为我们正确认识和把握数字文明提供了理论向导。
数字文明不是随着数字科技的发展和广泛运用而自然形成的,而是随着人类对数字科技发展规律的认识深化,运用伦理和法理对数字科技开发利用加以引导和规制而形成的。可以说,数字伦理和数字法理是数字文明的标识,是数字文明发展进步的轨道。
伦理指处理人与人之间、人与社会之间关系的道理或规则,可以分为理想秩序和具体规范两个层面。根据科技的内涵,科技伦理可分为科学伦理和技术伦理两个方面。在当今时代,科学与技术的联系日益紧密,科学伦理和技术伦理因此统称为“科技伦理”。习近平总书记指出:“科技是发展的利器,也可能成为风险的源头,要前瞻研判科技发展带来的规则冲突、社会风险、伦理挑战,完善相关法律法规、伦理审查规则及监管框架。”这就把为科技建立伦理规范体系提到治国理政层面。进入21世纪以来,在全球范围内,数字科技伦理问题受到高度重视。据不完全统计,不同国家、地区、组织发布的人工智能伦理准则已超过40项。2019年3月,我国国家新一代人工智能治理专业委员会成立。同年6月,该委员会发布《新一代人工智能治理原则——发展负责任的人工智能》。同年9月,该委员会发布《新一代人工智能伦理规范》,提出了增进人类福祉、促进公平正义、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养等六项基本伦理规范。2021年11月,联合国教科文组织第41届大会通过了全球首个人工智能伦理规范框架《人工智能伦理问题建议书》,提出“尊重、保护和促进人权、基本自由和人的尊严”“环境和生态系统蓬勃发展”“确保多样性和包容性”“生活在和平、正义和相互联系的社会”等价值,以及符合比例且不伤害、安全和稳健、公平和无歧视、可持续发展、隐私权和数据保护、人类监督和决定、透明和可解释、责任和可问责性、认知和素养、多方利益相关者和适应性治理与协作等原则。总括而言,以人工智能伦理规范为核心的数字科技伦理规范可被归结为“八大原则”:第一,以人为本,即要尊重人的尊严和权利,永远把人当成目的本身而不是手段;第二,增进福祉,即要促进人的生存和发展,满足人们的美好生活需要;第三,和平利用,即反对把人工智能技术运用于战争,而要维护和平、改善国际关系;第四,保护隐私,即尊重和保护个人隐私,充分保障个人的知情权和选择权;第五,公正透明,即公平对待每一个人和群体,智能科技作出的任何影响人们生活的决策都必须可以被认识和理解;第六,安全可控,即运行安全可靠,避免在不可预见的情况下造成伤害,或者被人恶意操纵,实施有害行为;第七,敏捷治理,即倡导灵活、流畅、动态适应的治理方法,避免治理手段跟不上科技创新的节奏;第八,共担责任,即在多元共治的基础上的责任共担。特别是,2021年12月17日,习近平总书记主持召开中央全面深化改革委员会第二十三次会议,会议审议通过了《关于加强科技伦理治理的指导意见》。习近平总书记在主持会议时强调,科技伦理是科技活动必须遵守的价值准则。要坚持增进人类福祉、尊重生命权利、公平公正、合理控制风险、保持公开透明的原则,健全多方参与、协同共治的治理体制机制,塑造科技向善的文化理念和保障机制。这些重要论述构成了我国科技伦理尤其是以人工智能为集成的数字科技伦理治理的基本框架。
数字伦理属于德治和自治范畴,数字法理则属于法治和国家治理范畴。在国内外数字法学研究中,研究者普遍关注数字伦理问题,却没有明确提出“数字法理”概念,更没有给予深度关注,法学家们仍习惯于照搬科技伦理概念,并局限于科技伦理思维,因此弱化了数字法理和数字法治。针对这种现象,我国法学界近期明确提出了“数字法理”概念。
在当代中国和世界,法理成为一个流行于哲学社会科学领域的学术概念和公共话语,其基本语义和意义包括法的原理、法的精神、法律原则、法律通说、法学理论、法律生活和法治实践中的美德和公理、法律和法治实践的正当性理据等。据此理解,数字法理的内涵非常丰富,例如:坚持以人民为中心,数字发展为了人民、依靠人民、造福人民、服务人民;坚持以公正为生命线,把公平正义作为数字建设和数字服务的根本价值追求,秉持普惠和包容理念,努力让人民群众在网络空间和数字社会感受到权利公平、机会公平、规则(标准)公平;坚持以权利为本位,充分尊重和保障人民的数字权利特别是数字人权,在任何情况下都拒绝拿数字权利作交易、以牺牲数字人权为代价;坚持以规则为基准,加快完善数字法律体系,实现数字领域的规则之治,进而迈向良法善治;坚持以公开透明为底线,在科技研发、技术应用、算法程序等环节都应当遵循透明度原则,确保公众能够了解必要信息,可以对算法程序等数字技术进行验证,并对其应用结果、风险进行预测,以便防范可能的侵害等。
张文显:《法理泛在:法理主题致辞集》
法律出版社,2020年版
(图片来源于当当)
当然,数字伦理和数字法理的划分仅仅具有类型化分析的逻辑意义,在数字社会现实中,它们往往是交织在一起的,呈现出以数字伦理为基、以数字法理为本的格局以及数字伦理法理化、数字法理伦理化的交互趋势。让我们以《新一代人工智能伦理规范》为例。该规范一共有六条:第一,增进人类福祉。坚持以人为本,遵循人类共同价值观,尊重人权和人类根本利益诉求,遵守国家或地区伦理道德。坚持公共利益优先,促进人机和谐友好,改善民生,增强获得感幸福感,推动经济、社会及生态可持续发展,共建人类命运共同体。第二,促进公平公正。坚持普惠性和包容性,切实保护各相关主体合法权益,推动全社会公平共享人工智能带来的益处,促进社会公平正义和机会均等。在提供人工智能产品和服务时,应充分尊重和帮助弱势群体、特定群体,并根据需要提供相应替代方案。第三,保护隐私安全。充分尊重个人信息知情、同意等权利,依照合法、正当、必要和诚信原则处理个人信息,保障个人隐私与数据安全,不得损害个人合法数据权益,不得以窃取、篡改、泄露等方式非法收集利用个人信息,不得侵害个人隐私权。第四,确保可控可信。保障人类拥有充分自主决策权,有权选择是否接受人工智能提供的服务,有权随时退出与人工智能的交互,有权随时中止人工智能系统的运行,确保人工智能始终处于人类控制之下。第五,强化责任担当。坚持人类是最终责任主体,明确利益相关者的责任,全面增强责任意识,在人工智能全生命周期各环节自省自律,建立人工智能问责机制,不回避责任审查,不逃避应负责任。第六,提升伦理素养。积极学习和普及人工智能伦理知识,客观认识伦理问题,不低估不夸大伦理风险。深入推动人工智能伦理治理实践,提升应对能力。可以说,这六条既是伦理规范,也是法理原则,生动体现出数字领域德治和法治相结合,展现出法律、政策和道德一体化的现代文明。
十、数字中国
建设数字中国是数字科技发展和数字治理现代化的总目标。数字中国和法治中国相辅相成、相得益彰。
“数字中国”是具有统领意义的数字法理新概念。这一概念是习近平总书记深刻把握21世纪科学技术发展趋势、竞争态势和我国社会主义现代化强国建设战略支撑而提出来的原创性概念。
人类社会进入21世纪后,随着互联网、物联网、大数据、人工智能、区块链、算法程序等智能科技飞速发展,能否有效采集、管理、分析、应用数据信息,全面推进数字化转型,不但成为驱动经济社会发展的关键环节,而且日益成为国家以及企业和个人的核心竞争力。以习近平同志为核心的党中央高瞻远瞩、超前布局,适时提出加快建设数字中国战略。早在2000年,时任福建省省长的习近平同志就着眼未来,响亮地提出建设“数字福建”,并作出了建设“数字福建”的部署。2015年12月,习近平总书记在第二届世界互联网大会开幕式上首次正式提出推进“数字中国”建设的倡议。2017年10月18日,习近平总书记在党的十九大报告中进一步强调建设数字中国。2018年4月22日,习近平总书记致信首届数字中国建设峰会,更加强调“加快数字中国建设”。
数字中国概念的科学内涵是,以全面建设社会主义现代化国家为目标,以新一代数字技术和产业创新发展为引领,以信息资源为核心要素,涵盖经济、政治、文化、社会、生态等各领域信息化建设,既包括加快推进“互联网+”、大数据、云计算、人工智能、区块链、物联网、即时通讯等数字科技创新,又包括加快建设网络强国、宽带中国、数字经济、数字政府、智慧司法、智慧社会、智慧城市、数字乡村等各方面的信息化、网络化、智能化。建设数字中国,是全面建设社会主义现代化强国的迫切需要。正如习近平总书记指出的:“加快数字中国建设,就是要适应我国发展新的历史方位,全面贯彻新发展理念,以信息化培育新动能,用新动能推动新发展,以新发展创造新辉煌。”我们应在更好满足人民群众日益增长的美好生活需要的同时,更快提升我国在世界范围内的竞争优势。
数字中国建设离不开法治。建设数字中国与建设法治中国应该是同步的、相互促进的。“法治中国”是习近平法治思想中最具原创性统领性的概念之一。2005年,时任浙江省委书记的习近平同志提出建设“法治浙江”,亲自谋划和制定了《中共浙江省委关于建设“法治浙江”的决定》,对建设法治浙江进行总体部署,把全省经济、政治、文化、社会生活和生态文明建设纳入法治轨道。党的十八大之后,习近平总书记明确提出“建设法治中国”,指出建设法治中国,就是要依法治国、依法执政、依法行政共同推进,法治国家、法治政府、法治社会一体建设。
“数字中国”和“法治中国”两个概念相继提出并不是偶然的,而是必然的,其必然性就在于二者是相辅相成、相得益彰的。一方面,数字中国建设需要法治的引领、规范和保障,以确保数字中国建设科学发展、造福人民。另一方面,现代数字科技已经成为法治现代化的重要引擎,只有把大数据、云计算、人工智能、互联网、物联网、即时通讯技术等数字科技运用于法治中国建设,提升国家治理和社会治理的数字化智能化水平,借助数字科技的智能优势,才能实现科学立法、精准执法、智慧司法、数字维权、社会智治,推动法治中国建设跨越式发展进步,把中国建设成为高质量、高水平法治中国。由这种必然性决定,我们必须统筹推进数字中国和法治中国建设,推动数字法治化、法治数字化,更好地把法治中国的制度优势与数字中国的科技优势有机地结合起来,加快建设富强民主文明和谐美丽的社会主义现代化国家。
党的十八大以来,特别是党的十九大以来,围绕数字科技发展和数字中国建设,我国制定、修改了一大批法律、行政法规和规章、党内法规、行业自治规范,例如,制定了《网络安全法》《数据安全法》《个人信息保护法》,编纂了包含一系列有关自然人个人信息权利保护、个人信息侵权责任追究条文的《民法典》,修改了《电子商务法》,出台了《互联网信息服务算法推荐管理规定》《网络产品和服务安全审查办法(试行)》《国家网络安全事件应急预案》《公共互联网网络安全威胁监测与处置办法》《信息安全技术 个人信息安全规范》,发布了《新一代人工智能伦理规范》等。
与此同时,我国加强数字领域和网络空间的执法司法普法:依法严厉打击网络黑客、电信网络诈骗、侵犯公民个人隐私等违法犯罪行为,切断网络犯罪利益链条,持续形成高压态势,维护人民群众合法权益;维护网络主权,推动网络安全的跨国合作,完善网络安全和信息化执法联动机制,建立打击网络犯罪国际合作机制;深入开展网络信息法律普及。我国已经形成“依法治网、依法办网、依法上网”的良好法治环境。
法治和科技的深度融合,是中国未来法治的生命逻辑。在全面建成社会主义现代化强国、实现中华民族伟大复兴的新征程上,数字中国和法治中国建设的完美结合,必将创造出中国式现代化新奇迹。
结语
数字科技的蓬勃发展和广泛运用引发人类社会的生产方式、生活方式、交往方式、思维方式的巨大变革,人类已经步入数字时代,迈向数字文明。顺应数字革命和文明发展的历史潮流,党的十九大对建设网络强国、数字中国、智慧社会作出战略部署,“十四五规划”对数字经济、数字社会、数字政府等方面作出具体规划。数字中国建设迫切需要法治建设的跟进和保障。以研究数字法治为对象的数字法学应运而生、脱颖而出。
数字法学知识体系、学科体系、学术体系、话语体系的根基是数字法理。围绕数字法理和数字法学体系,许多学者专家进行了比较深入的研究,提出了一系列新概念新命题新方法。在梳理和总结国内外研究成果的基础上,本文提炼或阐释了数字法理之中的数字本原、数字正义、数字人权、数字主权、数字平台、数字向善、数字安全、数字治理、数字文明和数字中国十个基础概念,并以命题模式进行了简要阐释。
作为数字法理研究的初级篇,加上文字数量所限,本文仅就这些概念和命题的形成演进、基本内涵和核心要义作出简略的揭示和阐释,而未能展示数字法理概念及其命题的全部内容。尽管如此,笔者仍然期盼本文能够起到抛砖引玉的作用,引发数字法学界的兴趣和讨论,不断凝练和科学阐释数字法理的概念和命题,推动数字法学跨越式发展,为推动数字中国和法治中国建设、促进数字文明进步作出应有的理论贡献。
往期推荐
排版:陈思臻
审核:张瑞、罗有成
点击“阅读原文”,进入投稿系统